Cours de statistique descriptive

Cours D’apprentissage Statistique

2. Etude du LASSO 2.1. Erreur de prédiction. Proposition 2.1. Soit ŵ ∈ Argmin(J). Si ∆ = ŵ−w∗, et ||Ω||∞ ≤ λ2 , alors ||∆Jc ||1 ≤ 3||∆J ||1, où on note J le support de w∗. Pour démontrer cette proposition on rappelle des résultats sur la norme duale. Définition 1. Soit N une norme sur R, ∀y,N∗(y) = supN(x)≤1 x>y Proposition 2.2. La norme duale est une norme, et vérifie N∗∗ = N . ∀(x, y), x>y ≤ ...

Sélection de modèles et sélection d’estimateurs pour l’Apprentissage statistique (Cours Peccot) Premier cours: Apprentissage statistique et sélection d’estimateurs

1. Le problème de l’apprentissage statistique 2 1.1. Cadre général 2 1.2. Exemple : prédiction 2 1.3. Exemple : régression 2 1.4. Exemple alternatif : régression sur un plan d’expérience fixe 3 1.5. Autres exemples 4 2. Estimateurs 4 2.1. Définition générale 4 2.2. Consistance, No Free Lunch 5 2.3. Exemples : Estimateurs par minimum de contraste 5 2.4. Exemple : Estimateurs des moindres carrés ...

Sélection de modèles et sélection d’estimateurs pour l’Apprentissage statistique (Cours Peccot) Troisième cours: Rééchantillonnage et pénalisation

1. Régressogrammes en régression hétéroscédastique 2 1.1. Cadre de la régression hétéroscédastique 2 1.2. Régressogrammes 2 1.3. Exemples de collections de partitions 4 1.4. Pénalité idéale 4 2. Nécessité d’estimer la forme de la pénalité 7 2.1. Illustration sur un exemple 7 2.2. Caractérisation des pénalités fonction de la dimension 8 2.3. Sous-optimalité des pénalités fonction de la dimension...

Une application de la statistique descriptive en informatique

Sélection de modèles et sélection d'estimateurs pour l'Apprentissage statistique (Cours Peccot) Quatrième cours: Validation croisée et pénalités reliées

1. Validation croisée 1 1.1. Principe et dé nition générale 2 1.2. Exemples 2 1.3. Estimation du risque par validation croisée 4 2. Validation croisée pour la sélection d'estimateurs 5 2.1. Sélection d'estimateurs pour la prédiction 5 2.2. Sélection d'estimateurs pour l'identi cation 6 2.3. Choix d'une méthode de validation croisée 6 2.4. Limites de la validation croisée 6 3. Détection de ruptu...